בנם של בתיה ויוסף. נולד בשנת תש"א (1941) בצנעא שבתימן למשפחה ברוכת ילדים, ולו שלושה-עשר אחים ואחיות.

יחיאל גדל בצנעא עד גיל שמונה, אביו היה מורי והוא שהחל בחינוכו. ב-1950 עלתה המשפחה ארצה והתיישבה במעברת עין שמר, משם עברו למעברת "שבות עם" באזור פרדסיה ולבסוף הקימו את ביתם בהרצליה. היה ילד חרוץ ועצמאי, מהיר תפיסה וחד. התחנך בבתי ספר במקום מגוריו, שילב עבודה ולימודים ודאגתו למשפחתו בראש מעייניו.

מגיל צעיר גילה בגרות נפשית, רצינות והתמדה, הפגין אחריות - עזר בכלכלת הבית בעבודות צבע מזדמנות שביצע יחד עם אחיו הגדול, סייע לאחים הקטנים ממנו בכל דבר ועניין, בילה עמם בסרטים ובילויים, היה קשוב לצרכיהם ושימש להם מקור לעצה ותמיכה.

בהגיעו לגיל גיוס, התגייס לצה"ל. בזכות אופיו הנעים התחבב בקלות על חבריו למסלול ביצע את המטלות הנדרשות בהצלחה.

באחד מימי הטירונות, בעת ביצוע משימה נפצע באורח קשה בראשו והובהל לקבלת טיפול רפואי בבית החולים. עבר מספר ניתוחים לייצוב מצבו, הוא נתמך בידי הוריו שסעדו אותו והיו לצדו כל העת.

לאחר אשפוז ממושך והליך שיקום ארוך, השתחרר מצה"ל נכון לבנות לעצמו שגרת חיים חדשה. עבד כארכיונאי באגף מהנדס העיר בעיריית הרצליה הצליח בביצוע התפקיד בזכות כישוריו הטובים, יכולותיו האנליטיות המצוינות והזיכרון הצילומי בו ניחן.

במקביל עם בניית קריירה, הקים זוגיות אוהבת עם ברכה. השניים הכירו בשידוך וחלקו קשר מאוד מיוחד ואהבה גדולה המבוססת על מסירות ונאמנות האחד כלפי השני. הם נהגו לספר בחיוך על פגישתם הראשונה, ועל כך שיחיאל לא חשף בפני ברכה את העובדה כי הוא מעשן עד שהתאהבה בו. בשנת 1969 נישאו והקימו את ביתם בהרצליה.

במרוצת השנים נולדו להם ארבעה ילדים - איילת, יוסף, יאיר וזוהר מאיר. ילדיו היו כל עולמו והיוו עבורו מקור גאווה ונחת. אב נוכח ומסור, דאג לרווחת ילדיו וביקש להעניק להם כל שביקשו. סיפר יוסף בנו: "אבא אהב את הים והנחיל זאת גם לנו. היינו מחכים לו בכל יום בצהריים וכששב מעבודתו היינו הולכים יחד לחוף ומבלים".

אהבת הזולת ורצונו להעניק ולסייע לאחר היו ממאפייניו העיקריים. תיארו אותו ילדיו: "אבא היה אדם צנוע וטוב לב, אהב לעזור ונודע בשכונה בתור מי שנותן מעצמו. זכינו לביקורי שכנים שהיו מגיעים אלינו נושאים בונבוניירות ופרחים כדי להודות לו על מעשיו הטובים".

בני משפחתו סיפרו בגאווה כי ניחן ביכולת כמעט מיסטית להביט באישה הרה ולחזות את מין הילוד, וכי אנשים פנו אליו בנושא עוד בטרם הלכו לבדיקה.

מלא אנרגיה ושמחת חיים, נהג להאזין לשירים בצרפתית ולשיר בקול ובהנאה. הפגין יכולות גבוהות לקליטת שפות וידע לדבר גם ביידיש בנוסף על עברית וצרפתית.

יחיאל בורך בחוש אסתטי מפותח, לבושו מוקפד ומראהו נאה. הדבר ניכר גם בסביבתו שהייתה תמיד נקייה ומסודרת להפליא. היה שותף מלא לרעייתו בעבודות הבית, ובנוסף מדי שנה, לקראת חגיגות ראש השנה ופסח, נהג לקחת חופשה מעבודתו ולסייע בהכנת הבית לחג.

זכה להפוך לסב, ונהנה לבלות ולשחק עם נכדיו, הוקיר את הזמן איתם.

בשנותיו האחרונות התדרדר מצבו הרפואי והוא נזקק לטיפול סיעודי תומך, מוקף כל העת באשתו וילדיו. "ברכה טיפלה ביחיאל במסירות נפש ולא עזבה אותו לרגע, כל חייה סבבו סביבו. ילדיו עשו משמרות והיו לצדו עשרים וארבע שעות ביממה", סיפרו אוהביו.

יחיאל כהן נפטר ביום י' בתשרי, יום כיפור תשע"ד (14.9.2013). בן שבעים ושתיים בפטירתו. הובא למנוחות בבית העלמין בהרצליה. הותיר אחריו אישה, בת, שלושה בנים, נכדים, אחים ואחיות.

על מצבתו כתבו אוהביו את הפסוק: "איש צדיק תמים היה בדורותיו", והוסיפו: "זכרך בלבנו לעד".